Trước năm 2012, địa bàn huyện Nậm Nhùn ngày nay thuộc hai huyện Mường Tè và Sìn Hồ của tỉnh Lai Châu.

Ngày 14 tháng 10 năm 2011, thành lập thị trấn Nậm Nhùn thuộc huyện Mường Tè.

Huyện Nậm Nhùn được thành lập vào ngày 2 tháng 11 năm 2012 theo Nghị quyết số 71/NQ-CP của Chính phủ Việt Nam trên cơ sở tách 5 xã: Hua Bum, Mường Mô, Nậm Chà, Nậm Hàng, Nậm Manh và thị trấn Nậm Nhùn của huyện Mường Tè và 5 xã: Lê Lợi, Nậm Ban, Nậm Pì, Pú Đao, Trung Chải của huyện Sìn Hồ. Huyện lỵ của huyện đặt tại thị trấn Nậm Nhùn.